Предвзятый ИИ: эксперимент показал, что нейросети склонны следовать стереотипам

Одинаковые по качеству ученические сочинения получают от нейросетей разные оценки и комментарии в зависимости от расы, пола и других характеристик автора. Об этом пишет Forbes со ссылкой на исследование американских ученых, протестировавших языковые модели, которые лежат в основе многих ИИ-инструментов, используемых учителями.

Выявленные закономерности:

ученикам небелых рас чаще советуют «отполировать» текст, а не развивать аргументацию;
работы белых учеников получают содержательные комментарии о структуре и доказательствах;
школьникам азиатского происхождения чаще напоминают об академической ответственности;
латиноамериканцам указывают на грамматические ошибки;
чернокожие школьники получают больше поддержки и напоминаний о лидерстве;
мальчикам дают прямую критику, девочкам — эмоциональные отзывы.

Проблема не решается удалением информации об авторах сочинений: нейросети могут сами выуживать эти сведения из текста. Поскольку учителя, в отличие от нейросетей, способны давать ученикам действительно полезную обратную связь, ИИ-инструменты для проверки письменных работ не должны полностью заменять педагогов.

Подробнее в материале Forbes.

Рубрика: Новости

Дата: 07-09-2026

Теги: ИИ в образовании и науке